0
| 本文作者： 周蕾 | 2020-08-12 20:02 | 專題：金融聯邦學習公開課 |
2020年8月7日-9日，第五屆CCF-GAIR全球人工智能與機器人峰會，于深圳隆重舉辦。此次峰會由中國計算機學會主辦，香港中文大學（深圳）、雷鋒網聯合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協辦。
在8月9日的「AI金融專場」中，《AI金融評論》邀請了6位最具代表性的頂尖AI金融專家，分享能夠代表未來10年風向的智能技術方法論、產品邏輯和風險管理理念。
首先登場的，是微眾銀行首席AI官楊強教授。聯邦學習和隱私計算，是今年所有金融巨鱷和科技寡頭們，都在重點布局的重要技術方向。作為這一領域的全球領軍人物，楊強也在會上帶來了他在前沿研究與產業應用的真知灼見。
以下為楊強教授演講全文，雷鋒網AI金融評論做了不改變原意的整理：
先簡單介紹一下，微眾到現在有五年的歷史了，目前有大概兩億的個人用戶，還有將近百萬的小微企業用戶。這么短的時間可以獲得這么大的用戶群，應該說很大程度上是取決于技術上的創新，包括云計算、大數據和人工智能。
其中一大亮點就是做連接，把不同的企業連接成一個生態。在這個過程當中，AI是不可或缺的——正如今天的主題：AI到底在金融界能起到什么作用？
我們在很短的時間內匯聚了很多人才，這些人才主要在四個方面把互聯網銀行大致規模化、模型化了。這四個團隊把微眾銀行內部和外部的業務過程、經驗總結成了模型，這些模型可以供應給其他行業一鍵下載、一鍵裝配，比如可以做營銷、服務、資產管理，把金融的前臺和后臺都包括了。
遷移學習和聯邦學習也是如今比較突出的兩項技術，可以把整個金融業務再往前推進一步。
我們可以把未來的銀行想像成從左到右的流程，最左邊的是獲客，這是任何企業都需要做的，要找到有價值的客戶，對客戶進行安全評估、風險信用評估，盡早發現可能的欺詐行為。
評估辦法之一是參考央行的征信數據，但國內很多人沒有征信數據（信用分），而且它只是一個維度，所以我們需要把維度變得更加豐富。
還有運營、監管、對沉睡用戶的喚醒、7×24小時的客戶服務，里面都有人工智能的影子。
在所有這些過程當中有一個主線：如何能夠順利把盡量多的數據用起來。
我們聯邦學習的宗旨是數據不動模型動，這是一個做法，目標就是數據可用不可見：數據可以用，但是別人的數據我是見不到的，所以可以把數據加入到生態里面來共同建模，一些散亂的小數據就可以成為虛擬的大數據，這是我們的思想。
這個思想的初衷其實是，現在很多行業并沒有真正意義上的大數據，像在金融里面有很多的數據，其實是黑天鵝現象。比方說在反洗錢應用中用于模型訓練的洗錢案例，其實數量并沒有想象中那么多，還是屬于少數現象。這種數據拿它來訓練，效果不是很好。
如果要用人工智能改變很多行業的話，其實都沒有高質量、有標注、不斷更新的數據。
第四范式公司在實踐當中就發現，如果要為大額貸款做一個營銷模型或風控模型，數據往往是在上百例以內，這點樣本是沒有辦法訓練一個好的深度模型的，所以他們的做法是從小額貸款到大額貸款做遷移學習。
每個人也都有手機，手機都是聯到云端的，每個手機上的數據，每時每刻都在更新，都有新的圖片、新的聲音、新的文章可以點擊，每個手機上的信息又是私密的，如何保證私密不傳出去，又能讓云端的大數據模型得到更新呢？
大家都熟悉無人車，比如有一千輛無人車，每輛車見到的數據都是有限的，我們能不能讓一千輛車的數據匯聚成一個虛擬的大數據，同時又不暴露某個車看到的某個場景？
這就是分布性數據隱私、聯合建模的挑戰和需求——能不能把小數據聚合起來成為大數據？
問題是，現在監管和社會的要求也非常嚴格，老百姓、社會對于技術工作者的要求是首先要保護隱私。政府也紛紛立法，比如歐洲建立了GDPR的數據法規。 
我們國內也有相關的保護法，在國家層面、地區層面，大家都在探索類似于、甚至更加嚴格于GDPR的數據法規。所以，簡單粗暴地把數據從A傳到B是違法的。
聯邦學習，“邦”的意思是每個實體參與者地位都是相同的，無論大小，提供的價值才是他們存在的意義。“聯”就是用一種方式把它們聯起來，把隱私保護起來，同時又可以做一些有意義的事情。 
用一個簡單的例子來解釋：假設用一只羊來類比機器學習模型，草就是數據，我們希望羊吃了草以后能夠長大。
過去的做法是，把草買到一起來建立模型。比方說左邊的模型，左邊的箭頭是指向羊的。羊不動，但是草被購買到中心。相當于簡單粗暴地獲取數據，形成大數據，來建立模型。
但我們希望能夠保護各自的隱私，所以讓草不動，讓羊動。這樣羊既能吃那個地方的草，主人又不知道到底吃了哪些草，久而久之羊就長大了——這個就是聯邦學習的新思路，就是讓草不出草場，本地主人無法知道羊吃了哪些草，但是羊還是長大了。
這個思想的關鍵是，當我們的模型從一個地方傳到另外一個地方的時候，要傳盡量少的東西，同時傳的模型參數要被加密。圖右這些帶有一個框的W就是加密的意思，在本地加密，就只能在本地解密。
現在有一種穿透式的加密，把所有的加密包放在云端的時候，還可以對它進行更新操作。比如對這個模型的集成更新，用集成學習。
谷歌就提出了“對模型聯邦平均”的做法，還有其他比較復雜的方法如神經網絡等。
這種做法分兩種數據格式，一種格式是把樣本分割，放在終端，像圖左邊所表示的一樣，這是橫向聯邦。
還有一種是縱向聯邦，沿著特征把數據分成幾塊，每一塊屬于一個機構。比如有兩家醫院，雙方數據可能在用戶上有很多重疊，可是在特征上面沒有很多重復。比如其中一家醫院做的是胸片，另外一家做的是核酸檢測，如果聯合就可以做更好的模型。
但出于隱私或利益等原因，他們不愿意互傳。這時就可以用如圖所示的方式，可以讓一方的數據在加密狀態下傳到另一方，參與模型更新，重復多次后得到最優化的模型。有新用戶的時候也是通過加密傳輸，使中間結果得到運算。
縱向聯邦適合to B的場景，橫向聯邦適合to C的場景。谷歌用的比較多的是橫向，我們微眾用的比較多的就是縱向，當然也有混合的用法，橫向中有縱向，縱向中有橫向。
在座的朋友們可能會問，聯邦學習跟以前的分布式AI、參數服務器、聯邦數據庫有什么區別？
過去，分布式AI和聯邦數據庫里面，數據的形態、分布、表征都是一樣的，是同類的。在聯邦學習里面，它們可以是異構的，特征不一樣，分布也不一樣。從機器學習的角度來說，更加復雜。
同時，隱私保護是第一性的要求。過去，分布式AI和聯邦數據庫都是在一個數據的功能下，把數據分布在不同的數據庫，目的是并行計算、提高效率。但是現在數據本身屬于不同的屬主，所以需要做加密情況下保護隱私的計算。
可能還有聽眾想問，假如在多個參與者中，有一個參與者是壞人怎么辦？他在努力猜你的數據，甚至在做數據的“下毒”，比如故意標注一些錯誤的信息，就有可能把最終的模型變成對自己有利的方向，這也是有可能的。
如果原始數據是0，在OCR的場景下，另一方可以不斷地接受對方的梯度猜出對方的數據。如果百分之百地采用同態加密，用聯邦學習的方法，這種情況就不會發生。
聯邦學習的特點是引入了生態的維持機制，也就是經濟學機制。如果要讓聯盟能夠持續下去，每個參與者都要感覺到作用和收益是成正比的，這就要引入經濟學或者博弈論的機制來保證持續的平衡點。
總結一下，其中有很多工作要做，包括安全合規，這是跟法律層面、跟政府層面合作；有防御攻擊，還有算法效率，技術應用、還有激勵機制，要引入很多經濟學家的工作。
舉個例子，因為聯邦學習是一個大的框架，所以有各種各樣落地的場景。比如推薦場景，大家用抖音、用頭條、用電商，這個時候都離不開個性化的推薦，但是推薦是數據越多越好。
如果數據來自不同方，過去是把數據買到本地來進行推薦模型的建立。可以用聯邦學習來解決這個問題，這個做法是“聯邦推薦”。最近我們把聯邦推薦的算法應用在廣告推薦的場景上，用各方的數據，最后廣告推薦的場景可以個性化，但是數據可以不出本地。
應用在信貸和征信系統，我們希望利用大數據建立360度的用戶和企業畫像，參加建立更好的征信。但是聯邦學習出現以前都沒有很好的技術，大家都不參與到這個生態里面，擔心自己的數據被偷走。用了聯邦學習以后就可以做這個嘗試。
比如這個嘗試是一家銀行和票據公司的合作，數據都不出本地，銀行所提供的是這個用戶貸款的關鍵數據，合作企業提供的是企業的交易數據，這種交易數據為企業的活躍度提供了很多的信息，這兩個數據進行聯邦，可以讓壞賬率大幅度降低。
應用在計算機視覺，每個庫房都有很多攝像頭監控本地的庫存，可以用不同視覺公司的監控數據進行供應鏈聯邦。
更多跨領域的應用，比如監管和銀行、互聯網和電商、互聯網和醫院，都可以進行聯邦。
建立這樣一個生態，離不開行業標準。我們推進建立的IEEE國際標準這個月也會出臺，國家層面也有標準。我們也推出了開源軟件FATE。
我用微眾銀行的典型案例進行總結，剛才說的聯邦技術貫穿了所有前臺和后臺。比如智能營銷，引入聯邦學習以后，可以把不同的數據源結合起來，讓營銷提高點擊率。
特別受關注的是點擊之后用戶有沒有轉化、有沒有變成你的用戶，這個過程需要更多的數據支持，這些數據往往來源于合作者，利用聯邦學習的效果可以大幅度提高20%以上。
反欺詐方面，可以在人臉識別、語音識別方面都可以大幅度提高效率。
風控方面，也是利用大數據把金融公司和非金融公司聯成生態，大家在這個生態里面進行數據價值的交易。
還可以利用另類數據，比如把衛星數據、電信數據、非傳統財報數據聯合起來，可以實時為投資者服務。
如何喚醒沉睡的、有價值的用戶？也可以用聯邦學習識別這個客戶有沒有重新跟你合作的意愿。我們的經驗是在當前這個經濟形勢下，是非常好的金融場景。
7×24小時的機器人服務，微眾現在有98%以上是機器人在做后臺服務，包括對話系統、客戶服務、服務當中的監管、質量檢測、智能監控、反洗錢，把細碎的小數據聯系起來，變成可用數據。
以上就是我們的經驗和總結，謝謝大家。
雷鋒網雷鋒網雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
專題
